Lie群の剰余群とCartanの閉部分群定理の完全な証明と解説

証明.
商写像を $\pi \colon G \to G/N$ とする。$G/N$ が商位相によりHausdorff空間であると仮定する。Hausdorff空間における1点集合 $\{ \pi(e) \}$ ($e$ は $G$ の単位元) は閉集合である。$\pi$ は連続であるため、その逆像 $\pi^{-1}(\{ \pi(e) \}) = N$ は $G$ の閉集合となる。

逆に $N$ が閉集合であるとする。直積空間 $G \times G$ 上の同値関係 $R = \{ (x, y) \in G \times G \mid x^{-1}y \in N \}$ を考える。連続写像 $f \colon G \times G \to G, (x, y) \mapsto x^{-1}y$ に対し $R = f^{-1}(N)$ であり、$N$ は閉集合であるから $R$ も $G \times G$ の閉集合である。$\pi$ は開写像 (open map) である。なぜなら、任意の開集合 $U \subset G$ に対し $\pi^{-1}(\pi(U)) = UN = \bigcup_{n \in N} Un$ は開集合の和集合ゆえ開集合となり、商位相の定義から $\pi(U)$ は開集合となるからである。開写像による商空間において、同値関係が閉集合であることと商空間がHausdorff空間であることは同値である。したがって $G/N$ はHausdorff空間となる。証明終。

証明.
部分群 $H$ の「候補となるLie代数」を構成し、それが実際にベクトル空間となること、そして指数写像を用いて局所的に $H$ と一致することを示すことで証明を行う。

第1段落：候補となるLie代数の定義とスカラー倍の閉鎖性
$H$ は $G$ の閉部分群であるとする。$H$ に対応するLie代数の候補 $\mathfrak{h}$ を次のように定義する。 $$ \mathfrak{h} = \{ X \in \mathfrak{g} \mid \text{任意の } t \in \mathbb{R} \text{ について } \exp(tX) \in H \} $$ まず、$\mathfrak{h}$ が $\mathfrak{g}$ の部分ベクトル空間であることを示す。定義から明らかに、任意の $X \in \mathfrak{h}$ と任意の実数 $s \in \mathbb{R}$ に対して $sX \in \mathfrak{h}$ である。したがって $\mathfrak{h}$ はスカラー倍について閉じている。

第2段落：ベクトルの和についての閉鎖性
次に $X, Y \in \mathfrak{h}$ としたとき、$X+Y \in \mathfrak{h}$ となることを示す。ここで補題 1.8 のLie-Trotter積公式を用いる。任意の $t \in \mathbb{R}$ に対して、次が成り立つ。 $$ \exp(t(X+Y)) = \lim_{n \to \infty} \left( \exp\left(\frac{t}{n}X\right) \exp\left(\frac{t}{n}Y\right) \right)^n $$ $X, Y \in \mathfrak{h}$ であるため、任意の整数 $n \ge 1$ に対して $\exp(\frac{t}{n}X) \in H$ かつ $\exp(\frac{t}{n}Y) \in H$ である。$H$ は群であるから、それらの積およびその $n$ 乗も $H$ に属する。さらに $H$ は $G$ の閉集合であるため、$H$ の元の列の極限もまた $H$ に属する。したがって $\exp(t(X+Y)) \in H$ となり、$X+Y \in \mathfrak{h}$ が示された。以上により、$\mathfrak{h}$ は $\mathfrak{g}$ の部分ベクトル空間である。

第3段落：局所的な一致の証明のための背理法の仮定
指数写像 $\exp$ は $\mathfrak{g}$ における原点 $0$ の近傍から $G$ における単位元 $e$ の近傍への微分同相写像である。定理を証明するためには、$0$ の十分小さな近傍 $U \subset \mathfrak{g}$ が存在し、$\exp(U \cap \mathfrak{h}) = \exp(U) \cap H$ が成り立つことを示せばよい。これが成り立てば、$\mathfrak{g}$ に適当な補空間を選んで基底を構成することでスライスチャートが構成でき、$H$ が埋め込まれた部分多様体であることが従う。
これが成り立たないと仮定して背理法で導く。部分空間 $\mathfrak{h}$ に対して、ベクトル空間としての補空間 $\mathfrak{m}$ を選び、$\mathfrak{g} = \mathfrak{h} \oplus \mathfrak{m}$ と直和分解する。このとき、写像 $\Phi \colon \mathfrak{h} \times \mathfrak{m} \to G$ を $\Phi(X, Y) = \exp(X)\exp(Y)$ で定義すると、$(0,0)$ での微分は同型となるため、逆写像定理より $(0,0)$ の近傍で局所微分同相となる。仮定より、いくら原点の近傍を小さく取っても $\exp(U \cap \mathfrak{h}) = \exp(U) \cap H$ が成り立たないため、$G$ において $e$ に収束する点列 $\{ h_n \} \subset H$ であって、$\exp(U \cap \mathfrak{h})$ に属さないようなものが存在する。

第4段落：点列の解析と矛盾の導出
局所微分同相性より、十分大きな $n$ に対して $h_n = \exp(X_n)\exp(Y_n)$ と一意に書ける。ここで $X_n \in \mathfrak{h}$、$Y_n \in \mathfrak{m}$ であり、$n \to \infty$ のとき $X_n \to 0$ かつ $Y_n \to 0$ である。$h_n \in H$ であり、定義から $\exp(X_n) \in H$ であるため、群の性質から $\exp(Y_n) = \exp(-X_n)h_n \in H$ となる。もし $Y_n = 0$ であれば $h_n = \exp(X_n) \in \exp(U \cap \mathfrak{h})$ となってしまい矛盾するため、$Y_n \neq 0$ である。
$\mathfrak{m}$ に任意のノルム $\| \cdot \|$ を入れる。$c_n = \| Y_n \|$ とおくと、$c_n > 0$ かつ $c_n \to 0$ である。点列 $\frac{1}{c_n}Y_n$ は $\mathfrak{m}$ の単位球面上にある。単位球面はコンパクト (compact) であるから、収束する部分列が存在する。必要ならば部分列をとることで、ある $Y \in \mathfrak{m}$ (ただし $\| Y \| = 1$) に対して $\frac{1}{c_n}Y_n \to Y$ となると仮定してよい。
任意の $t \in \mathbb{R}$ に対して、整数 $k_n$ を $k_n = \lfloor \frac{t}{c_n} \rfloor$ と定義する。このとき $k_n c_n \to t$ である。したがって、 $$ k_n Y_n = (k_n c_n) \left( \frac{1}{c_n} Y_n \right) \to tY \quad (n \to \infty) $$ が成り立つ。一方で、$\exp(Y_n) \in H$ であり $H$ は群であるから、任意の整数 $k_n$ に対して $\exp(k_n Y_n) = (\exp(Y_n))^{k_n} \in H$ である。$\exp$ は連続写像であり、$H$ は閉集合であるから、極限をとると、 $$ \exp(tY) = \exp\left( \lim_{n \to \infty} k_n Y_n \right) = \lim_{n \to \infty} \exp(k_n Y_n) \in H $$ となる。これは任意の $t \in \mathbb{R}$ で成り立つため、定義から $Y \in \mathfrak{h}$ である。
しかし、$Y \in \mathfrak{m}$ であり $\| Y \| = 1$ であるから $Y \neq 0$ である。これは $\mathfrak{h} \cap \mathfrak{m} = \{ 0 \}$ であることと矛盾する。

第5段落：結論
したがって背理法の仮定は誤りであり、$0$ の十分小さな近傍 $U \subset \mathfrak{g}$ において $\exp(U \cap \mathfrak{h}) = \exp(U) \cap H$ が成り立つ。これは局所的に $H$ が $\mathfrak{g}$ の部分空間 $\mathfrak{h}$ の指数写像による像と一致することを意味し、$H$ 上にスライスチャートが構成できる。ゆえに $H$ は $G$ の埋め込まれた部分多様体である。また、部分多様体としての可微分構造において、群演算は $G$ の滑らかな群演算の制限として滑らかになるため、$H$ 自身もLie群となる。証明終。

証明.
第1段落：商位相のHausdorff性と多様体構造の導入の準備
命題 2.1 で示した通り、$N$ が閉部分群であることから、商位相を入れた $G/N$ はHausdorff空間である。また、商写像 $\pi \colon G \to G/N$ は開写像である。定理 3.1（Cartanの閉部分群定理）により、$N$ は $G$ の埋め込まれたLie部分群となる。$G$ の単位元 $e$ におけるLie代数を $\mathfrak{g}$ とし、$N$ のLie代数を $\mathfrak{n} \subset \mathfrak{g}$ とする。ベクトル空間として $\mathfrak{g} = \mathfrak{n} \oplus \mathfrak{m}$ と直和分解されるような部分空間 $\mathfrak{m}$ を選ぶ。

第2段落：局所座標系の構成
写像 $\Phi \colon \mathfrak{n} \times \mathfrak{m} \to G$ を $\Phi(X, Y) = \exp(X)\exp(Y)$ で定義する。ここで $\exp \colon \mathfrak{g} \to G$ は指数写像である。$(0,0)$ における微分 $d\Phi_{(0,0)}$ は $\mathfrak{n} \oplus \mathfrak{m} \to \mathfrak{g}$ の恒等写像と同一視できるため、同型写像である。逆写像定理により、原点 $0$ の近傍 $U_{\mathfrak{n}} \subset \mathfrak{n}$ と $U_{\mathfrak{m}} \subset \mathfrak{m}$ が存在して、$\Phi$ は $U_{\mathfrak{n}} \times U_{\mathfrak{m}}$ 上で微分同相写像となり、その像 $W = \Phi(U_{\mathfrak{n}} \times U_{\mathfrak{m}})$ は $e$ の開近傍となる。

第3段落：局所切断 (local section) の存在と局所同相
$N$ が埋め込まれた部分多様体であるため、$e$ の開近傍 $W'$ を十分小さく取れば $W' \cap N = \exp(U'_{\mathfrak{n}})$ ($U'_{\mathfrak{n}} \subset \mathfrak{n}$) と書ける。$U_{\mathfrak{n}}$ と $U_{\mathfrak{m}}$ をさらに小さく取り直し、$W \subset W'$ となるようにする。このとき、任意の $Y_1, Y_2 \in U_{\mathfrak{m}}$ に対し、もし $\exp(Y_1)$ と $\exp(Y_2)$ が同じ $N$ の剰余類に属すると仮定する。すなわち、ある $n \in N$ が存在して $\exp(Y_1) = n \exp(Y_2)$ となる。$U_{\mathfrak{m}}$ が十分に小さければ $n = \exp(Y_1)\exp(-Y_2)$ は $e$ に十分近くなり、$W \cap N$ に含まれる。したがって $n = \exp(X)$ となる $X \in U_{\mathfrak{n}}$ が存在する。これより $\exp(Y_1) = \exp(X)\exp(Y_2) = \Phi(X, Y_2)$ となるが、$\exp(Y_1) = \Phi(0, Y_1)$ であり、$\Phi$ の単射性から $X=0$ かつ $Y_1=Y_2$ を得る。
これは、写像 $\psi = \pi \circ \exp|_{U_{\mathfrak{m}}} \colon U_{\mathfrak{m}} \to G/N$ が単射であることを意味する。$\pi$ は開写像であり、$\exp$ も $0$ の近傍で局所微分同相であるため、$\psi$ は $U_{\mathfrak{m}}$ から $G/N$ の単位元 $\bar{e} = \pi(e)$ の開近傍 $\bar{U} = \pi(\exp(U_{\mathfrak{m}}))$ への同相写像となる。これにより $\bar{U}$ に局所座標が導入される。

第4段落：全体へのアトラスの拡張と座標変換の滑らかさ
任意の $\bar{g} = \pi(g) \in G/N$ に対し、左移動 $\bar{L}_{\bar{g}} \colon G/N \to G/N, x \mapsto \bar{g}x$ は同相写像であり、well-definedである。これを用いて、開近傍 $\bar{g}\bar{U}$ に座標系を導入することで、$G/N$ を覆うアトラスを得る。
二つの座標近傍が交わる部分での座標変換が滑らかであることを示す。座標近傍の構成より、局所切断 $s \colon \bar{U} \to G$ を $s(\bar{x}) = \exp(\psi^{-1}(\bar{x}))$ と定義できる。これは滑らかな多様体 $G$ への滑らかな写像と見なせる。任意の点での局所切断も左移動を用いて $s_g(\bar{x}) = g s(\bar{g}^{-1}\bar{x})$ と定義できる。座標変換は、ある局所切断によって $G$ へ持ち上げられた点を別の局所座標で読み直す操作に他ならず、$G$ における群演算と滑らかな写像の合成で書けるため、座標変換は滑らか (smooth) である。したがって、$G/N$ は可微分多様体となる。

第5段落：商写像が滑らかな沈め込みであること
上記の多様体構造において、$\bar{e}$ の近傍で $\pi \colon G \to G/N$ を局所座標で表現すると、$\Phi(X, Y) \mapsto Y$ となる。これは滑らかな射影に他ならず、微分が常に全射である。左移動は微分同相であるから、$G$ の全ての点において $\pi$ は滑らかな沈め込みとなる。

第6段落：群演算の滑らかさ
最後に、$G/N$ の群演算 $\bar{m} \colon G/N \times G/N \to G/N$ が滑らかであることを示す。ここで、命題 1.7（沈め込みの普遍性質）を用いる。写像 $\pi \circ m \colon G \times G \to G/N$ は滑らかな写像の合成ゆえに滑らかである。また、直積写像 $\pi \times \pi \colon G \times G \to G/N \times G/N$ は滑らかな沈め込みの直積であるため、これも滑らかな沈め込みである。定義より $\bar{m} \circ (\pi \times \pi) = \pi \circ m$ が成り立つ。$\pi \circ m$ は $\pi \times \pi$ のファイバー上で一定であるため、普遍性質により誘導される写像 $\bar{m}$ は一意でありかつ滑らかである。逆元を取る写像 $\bar{i} \colon G/N \to G/N$ についても全く同様の議論で滑らかさが示される。
以上により、$G/N$ は可微分多様体であり、群演算が滑らかであるため、Lie群となる。証明終。